Abel studierte unter Johann Sebastian Bach an der Leipziger Thomasschule ; unter Hasse spielte er zehn Jahre lang (1748-1758) in der königlich-sächsischen Hofkapelle, die der Kurfürst von Sachsen in Dresden in das Leben gerufen hatte. Indem er nach England ging, wurde er 1759 Kammermusiker der Königin Charlotte . Er gab in London ein Konzert mit seinen eigenen Kompositionen auf verschiedenen Instrumenten, darunter das gerade erfundene Pentachord .

Im Jahr 1762 kam Johann Christian Bach, der elfte Sohn von Johann Sebastian Bach, nach London, und die Freundschaft zwischen ihm und Abel führte 1764 oder 1765 zur Gründung der berühmten Konzerte, die später als die "Bach und Abel Konzerte" bekannt wurden. Zehn Jahre lang wurden sie von Mrs. Comelys organisiert, deren Unternehmungen damals der letzte Schrei waren.

1775 wurden die Konzerte von ihr unabhängig, und nach Bachs Tod 1782 führte Abel sie noch ein Jahr erfolglos fort. In der Konzertreihe wurden die Werke Haydns das erste Mal in England aufgeführt. Nach dem Scheitern des Konzertunternehmens kehrte Abel nach Deutschland zurück, wo es ihm nicht gelang, Fuß zu fassen. So sah er sich genötigt, nach zwei Jahren nach London zurückzukehren, wo er stets noch als Spieler verschiedener neuer und alter Instrumente gefragt war. Er wurde jedoch zu dem Trinker und beschleunigte damit seinen Tod. Er starb 1787 in ärmlichen Verhältnissen.

Abel war der letzte Vertreter der Gamben-Spielkunst, mit ihm verschwand das Instrument aus der Reihe der Orchester- und bald danach auch der Solo-Instrumente.

Er war ein Mann von auffallender Erscheinung, von dem mehrere schöne Porträts existieren, darunter zwei von Thomas Gainsborough.

Abel schrieb unter anderem Symphonien, Ouvertüren, Konzerte, Sonaten und Solos.

• Kleine Sinfonie in F-dur
• Sonate Nr. 1 für Oboe und Klavier C-Dur
• Sonate Nr. 2 für Oboe und Klavier F-Dur
• Sonate Nr. 3 für Oboe und Klavier D-Dur
• Sonate Nr. 4 für Oboe und Klavier B-Dur
• Sonate für Viola da gamba solo C-dur
• Sonate für Viola da gamba solo d-moll